Yoshua Bengio
概述
深度学习领域先驱研究者,2018 年图灵奖获得者,蒙特利尔大学教授,生成对抗网络论文合著者,与 Hinton、LeCun 并称"深度学习三巨头"。
关键内容
- 注意力机制:与 Dzmitry Bahdanau、Kyunghyun Cho 共同提出 Neural Machine Translation by Jointly Learning to Align and Translate (2015 论文),首次引入注意力机制解决 seq2seq 固定长度瓶颈,是 Transformer 和现代 LLM 的直接前身。
- GAN 论文合著:作为 Generative Adversarial Nets (2014 论文) 的最后一位作者(senior author),Yoshua Bengio 为 GAN 的提出提供了学术指导和支持。该论文的共同作者包括 Ian Goodfellow(一作)、Jean Pouget-Abadie、Mehdi Mirza、Bing Xu、David Warde-Farley、Sherjil Ozair 和 Aaron Courville。
- 学术地位:与 Geoffrey E. Hinton 和 Yann LeCun 共同获得 2018 年 ACM 图灵奖,表彰他们在深度学习领域的突破性贡献。他是蒙特利尔学习算法研究所(MILA)的创始人,培养了大量深度学习领域的杰出研究者。
- 研究方向:长期专注于深度学习的理论基础,包括表示学习、生成模型、序列建模等。他的研究组在 GAN 的后续发展中持续产出重要工作,包括条件 GAN、注意力机制等方向。
来源
- Generative Adversarial Nets (2014 论文) — NeurIPS 2014
- 10_gan_2014.md — 源文件
- raw/articles/ai-papers/machine-learning/12_attention_2015.md — 注意力机制论文第三作者
相关
- Ian Goodfellow — collaborates
- Generative Adversarial Nets (2014 论文) — author
- 生成对抗网络(GAN) — supports
- Geoffrey E. Hinton — co-laureate
- Yann LeCun — co-laureate
- Neural Machine Translation by Jointly Learning to Align and Translate (2015 论文) — author(注意力机制论文)
- 注意力机制(Attention Mechanism) — caused(首次提出注意力机制)